Đời Trần, huyện có tên là Phù Lưu. Thời Lê Sơ đổi thành Phù Vân, sau lại đổi thành Phù Nguyên.

Đến đời nhà Mạc, vì kỵ húy vua Mạc Phúc Nguyên nên đã đổi thành Phú Xuyên.

Năm 1831, vua Minh Mạng đặt ra cấp tỉnh, huyện Phú Xuyên thuộc phủ Thường Tín, tỉnh Hà Nội.

Năm 1888, tỉnh Cầu Đơ (sau này là Hà Đông) được thành lập, huyện Phú Xuyên được cắt sang thuộc tỉnh Hà Đông. Khi Hà Đông sáp nhập với Sơn Tây, Phú Xuyên thành tỉnh Hà Tây, sau đó khi Hà Tây sáp nhập với Hòa Bình thì Phú Xuyên thuộc Hà Sơn Bình, khi Hà Sơn Bình tách ra thì Phú Xuyên lại thuộc tỉnh Hà Tây.

Huyện Phú Xuyên khi đó gồm có 27 xã: Bạch Hạ, Châu Can, Chuyên Mỹ, Đại Thắng, Đại Xuyên, Hoàng Long, Hồng Minh, Hồng Thái, Khai Thái, Liên Hòa, Minh Tân, Nam Phong, Nam Triều, Phú Túc, Phú Yên, Phúc Tiến, Phượng Dực, Quang Lãng, Quang Trung, Sơn Hà, Tân Dân, Thụy Phú, Tri Thủy, Tri Trung, Văn Hoàng, Văn Nhân, Vân Từ.

Ngày 6 tháng 9 năm 1986, chuyển xã Liên Hòa thành thị trấn Phú Xuyên, thị trấn huyện lỵ huyện Phú Xuyên; thành lập thị trấn Phú Minh từ một phần diện tích và dân số của xã Văn Nhân.[1]

Từ ngày 1 tháng 8 năm 2008, sáp nhập toàn bộ tỉnh Hà Tây vào thành phố Hà Nội. Theo đó, huyện Phú Xuyên thuộc thành phố Hà Nội.

Ngày 11 tháng 2 năm 2020, sáp nhập xã Thụy Phú và xã Văn Nhân thành xã Nam Tiến.[2]

Huyện Phú Xuyên có 2 thị trấn và 25 xã như hiện nay.